Trong thời gian kháng chiến chống Mỹ, Chính phủ Việt Nam Dân chủ Cộng Hòa đã giao cho Bộ Giáo dục trách nhiệm phải thành lập những trường đặc biệt dành cho các học sinh có năng khiếu về Toán học, nhằm chuẩn bị lực lượng nòng cốt cho nền khoa học sau này. Với tư cách của một viện giáo dục quốc gia, chuyên đào tạo đội ngũ các giảng viên và nhà nghiên cứu khoa học, trường Đại học Sư phạm Hà Nội được giao nhiệm vụ thành lập một trường như vậy. Vào ngày 24 tháng 12 năm 1966, lớp Toán đặc biệt của Trường Đại học Sư phạm đã được mở cho ba mươi ba học sinh giỏi toán ở khu vực di tán tại huyện Phù Cừ, Tỉnh Hưng Yên. Lớp học đó chính là tiền thân của Trường Trung học phổ thông Chuyên Đại học Sư phạm Hà Nội ngày nay.

Quá trình phát triển của Trường Trung học phổ thông Chuyên Đại học Sư phạm có thể được chia làm ba giai đoạn chính:

• Từ 1966 đến 1995, Trường có tên là "Lớp toán đặc biệt", nằm dưới sự quản lý của Khoa toán, trường Đại học Sư phạm Hà Nội I.
• Năm 1995, Khối đổi tên thành: "Hệ Trung học phổ thông Chuyên Toán-Tin, Đại học Sư phạm Hà Nội", vẫn nằm dưới sự quản lý của Khoa Toán-Tin và mở thêm lớp chuyên tin học.
• Năm 2005, Hệ Trung học phổ thông Chuyên lấy tên chính thức: "Khối THPT Chuyên Đại học Sư Phạm Hà Nội", hoạt động với tư cách một khoa của Đại học Sư phạm Hà Nội và mở rộng lần hai với những lớp chuyên về văn học, vật lý, hóa học và sinh học.
• Năm 2009, Đơn vị này chính thức trở thành một đơn vị có tư cách pháp nhân riêng thuộc Đại học Sư phạm Hà Nội với tên gọi Trường Trung học phổ thông Chuyên, Đại học Sư phạm Hà Nội.[4].

Chuyên Sư phạm đã được Chính phủ trao tặng: Huân chương Lao động hạng ba, năm 1986; Huân chương Lao động hạng hai, năm 1996; Huân chương Lao động hạng nhất, năm 2001; Bằng khen của TW Đoàn TNCS Hồ Chí Minh, năm 2004; Bằng khen của Thủ tướng Chính phủ, năm 2005; Bằng khen của Bộ trưởng Bộ GD&ĐT về thành tích đào tạo học sinh giỏi, năm 2008; Bằng khen của TW Đoàn TNCS Hồ Chí Minh, năm 2011.